Dưới thời Việt Nam Cộng hòa, địa bàn phường Châu Phú A hiện nay là một phần xã Châu Phú thuộc quận Châu Phú, tỉnh Châu Đốc.

Sau năm 1975, xã Châu Phú được chia thành hai xã Châu Phú A và Châu Phú B thuộc thị xã Châu Đốc, tỉnh An Giang.

Ngày 25 tháng 4 năm 1979, Hội đồng Chính phủ ban hành Quyết định 181-CP năm 1979[1]. Theo đó:

• Sáp nhập 1/2 ấp Châu Thới 1 và 1/2 ấp Châu Thới 2 của xã Châu Phú A (theo đường rãnh lòng kinh Vĩnh tế, qua lòng kinh cầu số 4 đến giữa lộ núi Sam – Châu Đốc) vào xã Châu Phú B
• Tách ấp Mỹ Chánh 1, 1/2 ấp Mỹ Hòa của xã Mỹ Đức, huyện Châu Phú; ấp Châu Long 1, ấp Châu Long 6 của xã Châu Phú B để thành lập xã Vĩnh Mỹ
• Chuyển xã Châu Phú B thành phường Châu Phú B.